Don't Scroll Back: Missing-Evidence Memory for Streaming Dialogue Summarization
不回滚：面向流式对话摘要的缺失证据记忆
🧭 流式对话摘要 · 缺失证据记忆
KAIST
提出缺失证据记忆框架 ReMEMBER，在固定预算下针对当前窗口未解决依赖检索并提炼证据，提升流式对话摘要的缺口补全
📌 工作参考价值（4 点）
- 在电商客服/导购 Agent 中，多轮对话当前轮常含指代或隐含前提，直接总结或回答会丢失 grounding。可借鉴 ReMEMBER：先识别当前窗口的未解决依赖，再按依赖检索证据，而非按语义相似度盲目取 top-k；检索到的片段做证据密度提炼，在固定 token 预算下提升回答/摘要的事实一致性。
- 对推荐系统长序列用户行为建模，类似流式窗口总结：每次只处理最近一段 session，但长期偏好需从历史检索。可将当前目标视为带依赖的 query，先抽取缺失证据（早期点击、属性变化）再生成紧凑记忆；这比简单截断历史或普通 RAG top-k 更有效。
- 工程上，评估 RAG/记忆模块不要只看生成文本质量，应拆分 memory recall 和 gap-resolution completeness 等诊断指标，便于定位是检索没召回还是生成没利用，直接用于调试检索 Augmented 流水线。
- 若要用 LLM 记忆服务在线低延迟场景，固定预算下先检索后压缩的 evidence-dense memory 思路，适合做 prompt 压缩或 KV cache 精简，减少无效历史对注意力的干扰。